现实版“机器人三定律”来了？ ——浅析欧盟抢先发布人工智能道德准则

前沿君微信：tech9999  手机：[phone]

现实版“机器人三定律”来了？

——浅析欧盟抢先发布人工智能道德准则

远望智库技术预警中心 兰顺正

在人类科幻史上，阿西莫夫创立的“机器人三定律”十分的有名，而在现实中，类似的条文似乎已经出现了。

据美国科技网站The Verge的报道，经过52名专家的商讨，欧盟委员会于4月8日发布了人工智能道德准则。

该准则对未来人工智能的发展提出7个要求：

1.人类的能动性和监管：人工智能不能侵犯人类的自主性。人们不应该被AI系统操纵或胁迫，而应该能够干预或监督软件做出的每一个决定。

2.技术的健全性和安全性：人工智能应该安全且准确。它不应该易于受到外部攻击的影响，且应该相当可靠。

3.隐私和数据管理：人工智能系统收集的个人数据应该是安全的、私有的。它不应该让任何人接触，也不应该轻易被盗。

4.透明性：用于创建人工智能系统的数据和算法应该是可访问的，软件所做的决定应能被人类理解和跟踪。换句话说，操作员应能够解释AI系统所做的决定。

5.多样性、非歧视和公平性：人工智能提供的服务应面向所有人，无论年龄、性别、种族或其他特征。同样，系统不应该在这些方面存在偏见。

6.环境和社会福祉：人工智能系统应该是可持续的（即它们应该对生态负责）并“促进积极的社会变革”。

7.问责制：人工智能系统应该是可审计的，并被纳入企业可举报范畴，以便受到现有规则的保护。应事先告知和报告系统可能产生的负面影响。

该准则对于未来规范人工智能的发展能够起到多大实质性作用现在还有待观察，不过欧盟《准则》的问世对于人工智能研究确实具有重大的意义。

首先，《准则》的内容再次引发了世人对于人工智能伦理问题的重视。自从人工智能诞生以来，随着技术的进步已经得到了越来越广泛的应用，随之而来就是相关伦理问题的争论。如在战场上，人工智能要是被授予了“自由开火权”，会不会将人命当做儿戏，自作主张，滥杀无辜，将战争变成一场场无法“Restart”的游戏。又或者，有朝一日人工智能通过不断的学习，其“心智”水平越来越高，有可能萌生脱离人类控制、独立自主的倾向，再往后会与人类发生冲突甚至奴役或者灭绝人类。在各类科幻大片中，人工智能造反一直是经久不衰的主题。

而巧合的是，机器人的英文单词是“Robot”，最早由捷克作家卡雷尔·恰佩克在其科幻作品中首创，原意是“农奴式被强迫的劳动者”，并借此称呼那些可能会造反的机器仆人。为了防止机器人“以奴欺主”，科幻大师阿西莫夫构想了著名的“机器人三定律”，即：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管；机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外；机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。稍作对比不难发现，在此次欧盟颁布的《准则》的第1、第4和第2条分别与“机器人三定律”有相通之处，都是提倡“以人为本”，在原则上对相关伦理问题做出了规定，以尽可能防止人工智能伤害人类。由于欧盟此举领先于全世界，因此堪称是人工智能发展史上一个重要节点，也会为其他国家或组织制定和出台相关规定提供参照和依据。

同时，欧盟制定《准则》的行为本身也说明人工智能技术对于国际关系的影响已经不容忽视了。国内早就有学者指出，人工智能技术的发展将引发国际格局的变化，正如核技术的出现改变了现代世界的政治面貌一样。

一方面在经济领域，人工智能可以成为新的虚拟劳动力，并补充和提高现有劳动力和实物资本的技术与能力，而且还能推动创新、推进结构转型。据统计，截至2018年初，中国人工智能核心产业规模达到180亿元，带动相关产业规模达到2200亿元。根据预测，到2030年人工智能将为全球GDP带来14%的增长空间，即15.7万亿美元的市场规模，其中中国的GDP增长规模为26%，北美的GDP增长规模为14%，为全球受到人工智能带动效应最大的地区。

另一方面在国防领域，人工智能对国家军事力量影响早已不言而喻。随着人工智能技术推广，智能化武器的广泛应用将成为可能。深度学习算法可以使智能化武器在虚拟环境中建立武器操控的基本能力，并且借助人工智能系统进行智能化武器的协调行动，最大限度地获得战场优势。智能化武器系统不仅能够使人与武器实现实质性分离，使实际伤亡率无限趋近于0，而且没有了感情用事，武器的使用效率和不同武器之间的协作也将大大提升。如在叙利亚战场上，俄军机器人部队已经首开了战例。未来，具备人工智能的“无人军团”必将成为大国的“标配”，进一步拉大国与国之间的军力差距，甚至出现单方面“碾压”。

很明显，对经济和安全产生重大影响的人工智能技术将成为未来国际关系中的重要因素之一。无怪乎今年2月11日美国总统特朗普签署了一项行政命令，要求联邦政府机构将更多资源和资金投入到人工智能的研究、推广和培训中，这无异于拉开了人工智能领域大国竞争的大幕。而对于此次欧盟出台《准则》的背后意图，有分析认为，由于欧盟在投资和前沿研究方面，已经无法与美国和中国一争高下，因此它才迫不得已选择了伦理作为塑造技术未来的最佳选择。所以也可以说欧盟是希望通过抢占人工智能“道德高地”，以此在国际社会争取更多话语权，这也从另一个角度彰显了人工智能对于一个国家国际地位的影响力。

一网打尽系列文章，请公号内回复以下关键词查看：

创新发展：习近平 | 创新中国 | 创新创业 | 科技体制改革 | 科技创新政策 | 协同创新 | 科研管理 | 成果转化 | 新科技革命 | 基础研究 | 产学研 | 供给侧

热点专题：军民融合 | 民参军 | 工业4.0 | 商业航天 | 智库 | 国家重点研发计划 | 基金 | 装备采办 | 博士 | 摩尔定律 | 诺贝尔奖 | 国家实验室 | 国防工业 | 十三五 | 创新教育 | 军工百强 | 试验鉴定 | 影响因子 | 双一流 | 净评估 | 大学排名

预见未来：预见2016 |预见2020  | 预见2025 | 预见2030  | 预见2035 | 预见2045  | 预见2050

前沿科技：颠覆性技术 | 生物 | 仿生 | 脑科学 | 精准医学 | 基因 |  基因编辑 | 虚拟现实 | 增强现实 | 纳米 | 人工智能 | 机器人 | 3D打印 | 4D打印 | 太赫兹 | 云计算 | 物联网 | 互联网+ | 大数据 | 石墨烯 | 能源 | 电池 | 量子 | 超材料 | 超级计算机 | 卫星 | 北斗 | 智能制造 | 不依赖GPS导航 | 通信 | 5G | MIT技术评论 | 航空发动机 | 可穿戴 | 氮化镓 | 隐身 | 半导体 | 脑机接口 | 传感器

先进武器：中国武器 | 无人机 | 轰炸机 | 预警机 | 运输机 | 直升机 | 战斗机 | 六代机 | 网络武器 | 激光武器 | 电磁炮 | 高超声速武器 | 反无人机 | 防空反导 | 潜航器

未来战争：未来战争 | 抵消战略 | 水下战 | 网络空间战 | 分布式杀伤 | 无人机蜂群 | 太空战 | 反卫星 | 卫星 | 混合战争

领先国家：美国 | 俄罗斯 | 英国 | 德国 | 法国 | 日本 | 以色列 | 印度

前沿机构：战略能力办公室 | DARPA | 快响小组 | Gartner | 硅谷 | 谷歌 | 华为 | 阿里 | 俄先期研究基金会 | 军工百强

前沿人物：钱学森 | 马斯克 | 凯文凯利 | 任正非 | 马云 | 奥巴马 | 特朗普

专家专栏：黄志澄 | 许得君 | 施一公 | 王喜文 | 贺飞 | 李萍 | 刘锋 | 王煜全 | 易本胜 | 李德毅 | 游光荣 | 刘亚威 | 赵文银 | 廖孟豪 | 谭铁牛 | 于川信 | 邬贺铨

全文收录：2018文章全收录 | 2017文章全收录 | 2016文章全收录 | 2015文章全收录 | 2014文章全收录

其他主题系列陆续整理中，敬请期待……